- ChatGPT lijkt een perfecte productiviteitspartner voor ambtenaren die veel informatie moeten verwerken.
- Maar het gebruik van generatieve AI brengt wat problemen met zich mee, bijvoorbeeld op het punt van privacy en geheimhouding, meldt AG Connect.
- Daarom adviseert de nieuw opgerichte interprovinciale ethische commissie dat ambtenaren terughoudend moeten zijn met het gebruik van AI-chatbots.
Hoewel AI-chatbots als ChatGPT een uitkomst kunnen zijn bij de dagelijkse taken van ambtenaren, kunnen ze toch voor onvoorziene problemen zorgen. Daarom adviseert de nieuw opgerichte interprovinciale ethische commissie tegen het gebruik van de opkomende technologie, schrijft techplatform AG Connect.
De commissie deed onderzoek naar de implicaties van het gebruik van zogenaamde large language models, de technologie waarop AI-chatbots werken, en vond meerdere problemen die het verantwoord gebruik door ambtenaren in de weg staat. Zo werken overheidsmedewerkers vaak met geheime en privacygevoelige informatie, die niet zomaar ingevoerd mag worden in AI-chatbots.
Ook is het onverstandig om de technologie te gebruiken als er niet iemand is die de uitvoer kan controleren op juistheid. AI-chatbots staan erom bekend te ‘hallucineren’, wat betekent dat ze een deels of volledig fictief antwoord als absolute waarheid brengen.
De commissie houdt de ontwikkelingen op het gebied van generatieve AI op de voet bij en belooft met nieuw advies te komen als dit nodig is.